2023-04-10 LLM Meetup
LLM Meetup Tokyo #1
takahiroanno 都内某所で行われたLLM meetupに行ってきたけどめっちゃ良かった。参加者は全員LLM関連のデモ持ってこないと参加不可というハイブローなmeetupだったんだけど、50人ぐらいきてた。参加者がひたすら蒸留されてて、LLM無職がたくさんいた。一つの時代のはじまりを感じたよおれは https://gyazo.com/73a9ab870d710714056d12ac43c69e91
レギュレーション
LLMをAPIを通して使った、fine-tune してる、作っているなど、実際に手を動かしてLLMを触っている人だけの小規模なミートアップです。後半のデモタイムで自己紹介&デモをしていただける方だけ、ご参加いただけます。
自己紹介
https://gyazo.com/eff4903533bee8c0410d86acf726e270
https://gyazo.com/0065adb8c19478da2c88598da7dfc889
https://gyazo.com/a2fd1653cff19dce74331dfb829b9a16
はるか昔のような気がする
3.5
ChatGPT API
https://gyazo.com/a31e54ab3d757b4d6f9592716f17effe
3/18にGPT4 APIが来た
https://gyazo.com/6750c9f87d1c3bcd996e6d024216bbee
参加者のTweets
@kenn: LLM Meetup Tokyoめちゃ楽しかった!皆さんありがとうございました! @elmer_mmm: LLM Meetup Tokyo #1 のデモでお見せした #ChatGPT でロボット動かしてみた動画です!会場では音が聞こえなかったので是非!他にもカチャカに乗せたり多言語話させたりしてます! ウチの場合だとルールベースとかと組み合わせてやっつけてる感じだからなあ
_mkazutaka LLM Meetup Tokyo参加してきました!楽しかった!直接プロンプトどうなってるんですかとか語り合えるの最高だった! wroorurkwao LLM meetup にて、競争優位性は何が残るのかなぁ?みたいなことについてお話ししました。 y_matsuwitter 本日のLLM Meetup Tokyo #1 の資料。とても雑ですがMacBookProでも動くような軽量なLLMでAgentを作ろうとするとどうなるのかといったことを土日に実験していました。 https://pbs.twimg.com/card_img/1645467604910510080/Wu3yWlJC?format=jpg&name=medium#.png
y_matsuwitter 小さなモデルとはいえ、ReActのPromptは英語ベースなのでカテゴリとタスクを双方絞ってFine-Tuningすればもう少し上手く動いてくれるんじゃないか思っておりGPT-3あたりでデータ作ってColab上でFine-Tuningしてみるというのは次やってみたいところ。 erukiti 次は OepnAI パーカーを着てる y_matsuwitter さん 「Agentと軽量モデルの検証」
erukiti 「LLMやりたいからチーム立ち上げた(自分とMLチームで)」 パワフルや
「大企業さん意外に渋い」
erukiti 「LLM Meetup くるような人は、自立的に動くagentに興味持ってる人多いやろ」 はい
erukiti 「LangChain とか agent をガシガシ組み合わせるとレスポンスまでの時間がかかりすぎる」 erukiti 「今日の本題は、LLaMA.cpp とか Alpaca とかで ReAct できないか?」 「結論としては現状のフリーの軽量モデルだと無理」
Vicuna 13B 4bit や RWKV とかも無理っぽい
erukiti 個人的には ReAct やるためのデータセットを GPT-4 とかで生成しまくって、fine-trune すればいいんじゃね?という気はしてる chiral 今日のプレゼンスライド置いときます。みんなイケてる発表ばかりでショボいけど、まぁ僕も実装してるぜアピールってことで笑drive.google.com LLM Meetup Tokyo #1 Masayuki Isobe.pdf
https://pbs.twimg.com/media/FtXCFC9aMAA57RR?format=jpg&name=small#.png https://pbs.twimg.com/media/FtXCI-zaMAAnkEy?format=jpg&name=small#.png https://pbs.twimg.com/media/FtXCMrtaMAAjvR7?format=jpg&name=small#.png https://pbs.twimg.com/media/FtXCQVKaIAAreXq?format=jpg&name=small#.png
masa_kazama LLM Meetupで、「微分可能な検索インデックス」というタイトルでLTしました。キーワード検索やベクトル検索とは違う生成時代の新しい検索手法は楽しみですね。 https://pbs.twimg.com/card_img/1645058959131447297/fRc3IxD8?format=jpg&name=small#.png
https://pbs.twimg.com/card_img/1645423319636926465/Umee9ci2?format=png&name=medium#.png
@AkihisaShiozaki: OpenAI社のサム・アルトマンCEOが来日し、自民党・AIの進化と実装に関するPTに出席。日本での活発なChatGPTの利用などを引き合いに「日本がAIの利活用を通じて世界で大きな存在感とリーダーシップを発揮してほしい」と同氏。日本への期待を込めて、以下の7点の提案がありました。 1…
https://pbs.twimg.com/media/FtVacYlaAAIdjh9.jpg
@overlast: この7つの提案は全て日本国内の4年先の技術力を削ぐ提案になっていますね。そして削ぐ力はそれぞれ違いますね。この提案の様なことを国内で実施できる様にしたいですね。またOpenAIが提案内容を一営利企業として実施し、各施策を日本の政府や自治体が優遇しないなら、単に便利、なので問題なさそうです chiral 明日のLLM Meetup Tokyoの準備だん。ヘルプデスクAI(EmbeddingsAPI,Weaviate,CompletionAPI, 社内PCでdocker-composeで諸々ホスト)と、LINEチャット占いAI(LangChain,Flask. ngrok使ってcolabでホストしてLINE MessagingAPIにつなぐまで)の、豪華(笑)2本立て! GPTを使ってテーブルデータの前処理を自動化するデモをします!!(将来的にMatrixFlowに載るかも。)
LLM Meetup Tokyo #1 の飛び込み枠で発表したスライドです https://pbs.twimg.com/card_img/1641079402430881792/eHGFgpqt?format=png&name=medium#.png